本地搭建llama大模型及对话UI
通过命令 ollama run llama3:8b 下载ollama:8b模型(注意,是ollama量化后的模型,模型大小实际只有4.9G左右)完成后,docker图形化工具可以免登录使用,终端也可通过docker --version 命令查看docker版本。open-webui容器拉取过程如上图
通过命令 ollama run llama3:8b 下载ollama:8b模型(注意,是ollama量化后的模型,模型大小实际只有4.9G左右)完成后,docker图形化工具可以免登录使用,终端也可通过docker --version 命令查看docker版本。open-webui容器拉取过程如上图